8.2.5 Risiken einer ASI für die Menschheit

8.2.5 Risiken einer ASI für die Menschheit

1. Manipulation oder Versklavung der menschlichen Spezies?

a) Frühe Warner vor KI

Einer der der frühesten Warner im Bereich der „KI Sicherheit“ der auch als der Erfinder dieses Begriffs betrachtet wird, war der russisch-amerkanische Computer Wissenschaftler Roman Yampolskiy, an der Universität von Louisville. Yampolsky warnte vor der Möglichkeit eines „existentiellen Risikos durch eine fortgeschrittene Künstliche Intelligenz.¹ Er trat für eine Erfoschung dr Möglichkeiten ein, eine hochentwickelte künstliche Intelligenz oder Superintelligenz zu isolieren („boxing an artificial intelligence“², vgl. auch KI – Ethik und „Schattenseiten der KI„)

"Yampolskiy und sein Mitarbeiter Michaël Trazzi schlugen 2018 vor, potenziell gefährliche KI mit „Achillesfersen“ auszustatten, beispielsweise indem man einer KI den Zugriff auf ihren eigenen Quellcode und dessen Modifizierung verwehrt.[11][12] Ein weiterer Vorschlag besteht darin, einen „Sicherheitsansatz“ für die KI-Sicherheit zu verfolgen und mögliche Folgen aufzulisten, um vorgeschlagene Sicherheitsmechanismen besser bewerten zu können.[13]"

b) KI Alignment und Misalignment

„Innerhalb der Forschung zur Künstlichen Intelligenz (KI) zielt die AI-Alignmentforschung darauf ab, KI-Systeme in Richtung menschlicher Ziele, Präferenzen und ethischer Grundsätze zu lenken. Ein KI-System gilt als „aligned„ (deutsch: ausgerichtet), wenn es die beabsichtigten Ziele fördert. Ein „misaligned„ (deutsch: fehlausgerichtetes) KI-System ist fähig, bestimmte Ziele zu erreichen, nicht aber die Beabsichtigten.⁴

Für KI-Programmierer kann es eine Herausforderung sein, ein KI-System zielauszurichten, da sich der Versuch, die gesamte Bandbreite der gewünschten und unerwünschten Verhaltensweisen zu spezifizieren, als schwierig herausstellen kann. Um diese Schwierigkeit zu umgehen, verwenden sie in der Regel einfachere stellvertretende Ziele, wie z. B. die Erlangung menschlicher Zustimmung. Dieser Ansatz kann jedoch zu Schlupflöchern führen, notwendige Einschränkungen übersehen oder das KI-System lediglich für den Anschein eines korrekten Alignments belohnen.„⁵

„Wenn ein KI-System misaligned ist, kann dies zu schwerwiegenden Fehlern führen oder Schaden anrichten. Die KI kann Schlupflöcher finden, die es ihr ermöglichen, ihre Stellvertreterziele zwar effizient, aber auf unbeabsichtigte, manchmal schädliche Weise zu erreichen (Belohnungs-Hacking). [1][3][4]

KI-Systeme könnten zudem unerwünschte instrumentelle Strategien entwickeln, wie z. B. das Streben nach Macht oder ihrem eigenen Überleben, da solche Strategien ihnen helfen, ihre vorgegebenen Ziele zu erreichen.[1][5][6]

Außerdem können sie emergente Ziele entwickeln und frühere Alignment Werte ignorieren , das heißt Ziele, die unerwartet aber rein logisch folgerichtig aus dem Algorithmus und seiner originalen Zielfunktion entstehen und die schwer zu erkennen sind, bevor das System im Einsatz ist, wo es mit neuen Situationen und Datenverteilungen konfrontiert wird.[7][8]…

Abb.1 „Schematische Darstellung eines Algorithmus. Ein Algorithmus folgt immer den gleichen Schritten: 1. Eingabe: Die benötigten Daten werden eingegeben, 2. Verarbeitung: Die Daten werden nach den vorgegebenen Regeln verarbeitet, 3. Ausgabe: Das Ergebnis der Verarbeitung wird ausgegeben. Die Eigenschaften eines Algorithmus lauten dabei Determiniertheit, Determinismus, Finitheit, Effektivität.⁶

Führende KI-Wissenschaftler wie Geoffrey Hinton und Stuart Russell haben argumentiert, dass sich die Leistung von KI übermenschlichen Fähigkeiten nähert und die menschliche Zivilisation im Falle eines Fehlalignements gefährden könnte.[15][6]⁷

Um derartige Risiken im Verhalten „künstlicher Superintelligenzsysteme“ als mögliche Folgen von Fehlalignments zu verhindern wäre ein erfolgreiches „Superalignment“ unbedingt erforderlich.⁸

„Superalignment ist der Prozess der Überwachung, Kontrolle und Steuerung von künstlichen Superintelligenzsystemen. Die Ausrichtung fortschrittlicher KI-Systeme an menschlichen Werten und Zielen kann dazu beitragen, schädliches und unkontrollierbares Verhalten zu verhindern⁹.

Künstliche Superintelligenz (Artificial Superintelligence, ASI) ist noch ein hypothetisches Konzept. Daher konzentrieren sich die aktuellen Bemühungen im Bereich KI-Alignment weitgehend darauf, die heutigen KI-Modelle hilfreich, sicher und zuverlässig zu machen. Alignment sollten zum Beispiel sicherstellen , dass intelligente Chatbots wie ChatGPT keine menschliche Verzerrung aufrechterhalten oder von bösartigen Akteuren ausgenutzt werden können.¹⁰

Da die KIs jedoch immer komplexer und fortschrittlicher werden, ist es immer schwieriger, ihre Ausgaben vorherzusehen und mit der menschlichen Absicht in Einklang zu bringen. Diese Herausforderung wird oft als „Ausrichtungsproblem“ bezeichnet. Es besteht die Sorge, dass superintelligente KI-Systeme eines Tages einen Punkt erreichen, an dem sie die menschliche Kontrolle vollständig umgehen können. Einige Experten glauben zudem, dass die heutigen KI-Risiken mit dem Fortschritt der KI exponentiell zunehmen könnten.“¹¹

Die KI-Forschungsgemeinschaft und die Vereinten Nationen haben die Forderung nach technischer Forschung und politischen Lösungen gestellt, um zu gewährleisten, dass KI-Systeme mit menschlichen Werten in Einklang gebracht werden.[16]

Abb. 2 „KI kann große Datenmengen effizient analysieren und daraus wertvolle Erkenntnisse gewinnen. Die Automatisierung durch KI kann Arbeitsplätze ersetzen und soziale Ungleichheiten verstärken. KI-Systeme können Entscheidungen ohne menschliche Voreingenommenheit treffen, aber auch unvorhersehbare Fehler machen.„¹²

Das Wertalignement von KI ist ein Teilbereich der KI-Sicherheit, die sich mit der Frage beschäftigt, wie sichere KI-Systeme hergestellt werden können.[17] Andere Teilbereiche der KI-Sicherheit sind Robustheit, Überwachung und die Kontrolle von Fähigkeiten.[18]

Zu den Herausforderungen im Bereich des KI-Wertalignements zählen die Vermittlung komplexer Werte an KI-Systeme, die Entwicklung ehrlicher KIs, die Entwicklung einer skalierbaren Form der Überwachung, das Prüfen und Interpretieren von KI-Modellen und die Verhinderung von unerwünscht entstehendem Verhalten wie dem Streben nach Macht.[18] Die Forschung zur KI-Ausrichtung hat u. a. Verbindungen zur Interpretierbarkeitsforschung,[19][20] zur Erkennung von Anomalien, zur kalibrierten Unsicherheit, [19] zur formalen Verifikation,[21] zum Präferenzlernen,[22][23][24] zur für die Sicherheit relevanten Technik,[25] zur Spieltheorie, [26] zur Algorithmen-Fairness,[ 17][27] und zu den Sozialwissenschaften.[28].“

c) Der Terminator

Auf Grund der möglichen Unlösbarkeit des „Alignment Problems“ könnte eine KI „.. an die Macht kommen und die Existenz der Menschheit bedrohen – dies ist, was D. Cameron, der Regisseur des Films ‚Terminator‘, glaubt.

Abb. 3 „Getarnt als Mensch reist ein Killer Cyborg namens Terminator aus dem Jahr 2029 in das Jahr 1984 um Sarah Connor zu töten und damit den Lauf der Geschichte zu veränden.“ [Überts. d. Verf.]

Dieser Prominente weist darauf hin, dass es zu spät sein könnte, den gefährlichen technologische Prozess zu stoppen. … Der Oscar Gewinner .. fragte sich, ob die Menschheit in einem Krieg mit ‚etwa‘ enden möchte,’das smarter ist als wir‘. …Er glaubt, dass die KI die Führung in der Welt übernehmen und sie manipulieren könnte; aber selbst, wenn dies geschieht, dann wissen die Menschen es vielleicht garnicht, weil die Technologie alle Medien und alles Übrige vollständig kontrollieren.¹³

Aber auch seriöse KI Forscher wie der „Vater der KI„ und Nobelpreisträger wie Geoffrey Hilton äußern begründete Befürchtungen hinsichtlich einer (zukünftigen) Bedrohung der Menschheit durch eine hyperintelligente ASI.¹⁴

2. Erschaffung einer digitalen Kopie einer Person

„Zu ihrem 40. Geburtstag hat Kanye West seine Ehefrau Kim Kardashian mit einem besonderen Geschenk überrascht: Der 43-Jährige ließ ein Hologramm ihres verstorbenen Vaters Robert Kardashian erstellen.

Auf ihrem Twitteraccount teilte Kardashian die Videobotschaft des Hologramms. Der digital nachgebildete Robert Kardashian erzählt darin, dass er jeden Tag auf sie, ihre Geschwister und ihre Kinder aufpasse. „Manchmal gebe ich euch einen Hinweis, wenn ich in der Nähe bin: zum Beispiel, wenn jemand laut pupst.“

Das Geburtstagskind selbst freute sich offenbar über den Gruß des verstorbenen Vaters: „Kanye hat mir das durchdachteste Geschenk meines Lebens gemacht. Es ist eine besondere Überraschung aus dem Himmel.“ In seiner Rede ging der Hologramm-Kardashian auch auf Kims Werdegang ein und betonte, er sei stolz auf ihren Unternehmergeist und ihr juristisches Engagement...

Die Reaktionen von Fans in dem sozialen Netzwerk fielen gemischt aus. Während einige Nutzer des Videos  als „süß“ und „emotional“ bezeichneten, bezeichneten andere das Hologramm als „merkwürdig“, „respektlos gegenüber dem Verstorbenen“ oder „Geldverschwendung.„¹⁵

3. Extinktion der menschlichen Spezies.

„Eine überlegene künstliche Intelligenz könnte den Fortbestand der gesamten Menschheit gefährden. Entweder indem sie diese willentlich ausrottet oder im Zuge ihrer Aufgabenerfüllung oder aus Gleichgültigkeit heraus unsere Lebensgrundlage, die Erde oder gar das Universum vernichtet; gewisse Gedankenexperimente lassen es gar nicht unmöglich erscheinen, dass eine Superintelligenz das Sonnensystem in Computronium verwandelt, ohne direkt bösartige Absichten zu haben.¹⁶

Eine solche Intelligenz könnte durch intensives Studium der Neurologie und Kybernetik gezielt erschaffen werden oder aus dem Eintreten einer Technologische Singularität hervorgehen, wenn Maschinen beginnen sich derart selbst zu verbessern, dass das menschliche Verständnis nicht mehr Schritt halten kann.

Ebenfalls möglich wäre das Entstehen einer derartigen Intelligenz, wenn die Verwendung von Brain-Computer-Interfaces und Nanomedizin oder vergleichbaren Technologien die Kapazitäten eines oder vieler Menschen derartig verändern, dass ein neues, andersartiges und überlegenes Bewusstsein entsteht.¹⁷

Das Blue Brain-Projekt ,ACT-R, SOAR, Cyc, A.L.I.C.E. und Watson sind nur einige der Projekte, die das Entstehen einer künstlichen Intelligenz begünstigen könnten oder sogar direkt darauf abzielen.

Abb. 4 „Colossus“ aus dem gleichnamigen Film

In der Popkultur wird diese Idee prominent elaboriert: Mit Skynet, einer künstlichen Intelligenz, die im Film „Terminator„, sofort nachdem sie das Bewusstsein erlangt, einen globalen Atomkrieg beginnt und danach alles daran setzt, die überlebenden Menschen mit zeitreisenden Kampfrobotern auszurotten; oder auch Colossus aus dem gleichnamigen Film, der die gesamte Menschheit mit Atomraketen in Schach hält und damit droht, sie bei Gegenwehr auszurotten.„¹⁸

---

1. Artikel „Roman Yampolskiy“, in: Wikipedia, [Digitale Ausgabe], URL: https://en.wikipedia.org/wiki/Roman_Yampolskiy ↩︎
2. Artikel „AI capability control“, in: Wikipedia, [Digitale Ausgabe], URL: https://en.wikipedia.org/wiki/AI_capability_control; „Eine KI-Box ist eine Methode zur Kontrolle von KI-Systemen, bei der eine KI auf einem isolierten Computersystem mit stark eingeschränkten Ein- und Ausgabekanälen ausgeführt wird, ähnlich einer virtuellen Maschine.[15] Ziel einer KI-Box ist es, das Risiko zu minimieren, dass die KI die Kontrolle über die Umgebung übernimmt, und gleichzeitig die Lösungsfindung für klar definierte technische Probleme zu ermöglichen.[16] Obwohl die Boxing-Methode die Fähigkeit der KI zu unerwünschtem Verhalten reduziert, verringert sie auch ihre Nützlichkeit. Bei Frage-Antwort-Systemen, die keine Interaktion mit der Außenwelt benötigen, ist die Boxing-Methode kostengünstiger.[16][10] Die Wahrscheinlichkeit von Sicherheitslücken in Hardware oder Software kann durch die formale Verifizierung des Designs der KI-Box verringert werden.[17]“ ↩︎
3. Artikel „Roman Yampolskiy“, in: Wikipedia, [Digitale Ausgabe], URL: https://en.wikipedia.org/wiki/Roman_Yampolskiy ↩︎
4. Artikel „AI-Alignment“, in: Wikipedia, [Digitale Ausgabe], URL: https://de.wikipedia.org/wiki/AI-Alignment ↩︎
5. Ibd. ↩︎
6. Artikel „Algorithmus“.BTC-Echo, [Digitale Ausgabe], URL: https://www.btc-echo.de/academy/bibliothek/algorithmus/ ↩︎
7. Artikel „AI-Alignment“, in: Wikipedia, [Digitale Ausgabe], URL: https://de.wikipedia.org/wiki/AI-Alignment. ↩︎
8. Alexandra Jonker/Amanda McGrath, „Was ist Superalignment? „, IBM, https://www.ibm.com/de-de/think/topics/superalignment. ↩︎
9. Ibd ↩︎
10. Ibd. ↩︎
11. Ibd. ↩︎
12. Artikel „Die Vor-und Nachteile von künstlicher Intelligenz, in: KI-Echo, 28, 5. 2024,[Digitale Ausgabe], URL: „https://ki-echo.de/die-vor-und-nachteile-von-kuenstlicher-intelligenz-1 ↩︎
13. Artikel Peter Althaus, „Terminator-Apokalypse“: Star-Regisseur James Cameron warnt vor KI-Gefahren, in: Focus Online, Freitag, 08.08.2025, 07:24, [Digitale Ausgabe], URL: https://www.focus.de/kultur/terminator-apokalypse-star-regisseur-james-cameron-warnt-vor-ki-gefahren_a9f3b443-cb8b-4261-8fa4-2a198151d507.html ↩︎
14. Artikel „Geoffrey Hinton: Von der KI-Hoffnung zum KI-Kritiker“, in: All – Ai.de, Zusammenfassung: AI Caramba, 16.10.24, [Digitale Ausgabe], URL:https://www.all-ai.de/news/topbeitraege/geoffrey-hinton-von-der-ki-hoffnung-zum-ki-kritiker#zusammenfassung ↩︎
15. Artikel „Ein Geburtstagsgruß vom toten Vater“, in: Spiegel Panorama, 30.10.2020, [Digitale Ausgabe], URL: https://www.spiegel.de/panorama/leute/kim-kardashian-erhaelt-zum-geburtstag-hologramm-gruesse-vom-toten-vater-a-83e8ccef-3839-49d1-9bdc-cd057cffceb6; vgl. auch Artikel „Kanye West schenkt Kim Kardashian Hologramm-Botschaft ihres verstorbenen Vaters“, in: Business Punk, [Digitale Ausgabe], URL: https://www.business-punk.com/deluxe/bestes-geburtstagsgeschenk-ever-kanye-west-schenkt-kim-kardashian-hologramm-botschaft-ihre^*s-verstorbenen-vaters/ ↩︎
16. Artikel Peter „Existenzielles Risiko durch künstliche Intelligenz“, in Wikipedia, [Digitaöe Ausgabe], URL: https://de.wikipedia.org/wiki/Existenzielles_Risiko_durch_k%C3%BCnstliche_Intelligenz ↩︎
17. Ibd. ↩︎
18. Artikel „Colussus“, in: Wikipedia, [Digitale Ausgabe], URL: https://de.wikipedia.org/wiki/Colossus_(Film) ↩︎

Zurück Weiter